Inherited, Not Invented: Tracing the Provenance of Wait in Reasoning Models
继承而非发明:推理模型中 Wait 的来源追溯
🧭 LLM 推理行为训练溯源 · RL 角色
The Hong Kong University of Science and Technology · Peking University · Huawei Noah’s Ark Lab
通过追踪开放模型训练历史,证明 wait 等修订标记主要继承自训练数据而非 RL 凭空创造
📌 工作参考价值(4 点)
- 训练推理型 Agent 时,显式在 SFT 数据中加入“wait/reconsider”等自我修正 trace,不要寄希望于 RL 后期涌现;RL 只能放大已有行为,不能无中生有。
- 对线上 LLM 推理/推荐 Agent 做行为归因时,用无标签指标(标记频率、位置、形式、注入错误后是否触发)替代主观印象;marker 频率不应单独作为“推理增强”的 KPI。
- 评估 query 改写、解释生成或自检质量时,谨慎使用 LLM-as-judge:自动裁判可能反转人工标注趋势,建议人工抽检或多种 judge 交叉验证。
- 复现或调 RL 配方(如 GRPO)时,先检查基础模型是否已含目标语言行为、是否带 KL 约束;这些因素决定 RL 是放大、不变还是擦除该行为,影响线上文案/推荐解释的风格一致性。